Sesgos, IA y biomedicina: un comentario desde la ética y el Derecho / [Biases, AI and biomedicine: a comment from ethics and law]

La cuestión de los sesgos en la IA constituye un reto importante en los sistemas de IA. Estos sesgos no surgen únicamente de los datos existentes, sino que también los introducen las personas que utilizan sistemas, que son intrínsecamente parciales, como todos los seres humanos. No obstante, esto constituye una realidad preocupante porque los algoritmos tienen la capacidad de influir significativamente en el diagnóstico de un médico. Análisis recientes indican que este fenómeno puede reproducirse incluso en situaciones en las que los médicos ya no reciben orientación del sistema. Esto implica no sólo una incapacidad para percibir el sesgo, sino también una propensión a propagarlo. Las consecuencias potenciales de este fenómeno pueden conducir a un ciclo que se autoperpetúa y que tiene la capacidad de infligir un daño significativo a las personas, especialmente cuando los sistemas de inteligencia artificial (IA) se emplean en contextos que implican asuntos delicados, como el ámbito de la asistencia sanitaria. En respuesta a esta circunstancia, los ordenamientos jurídicos han ideado mecanismos de gobernanza que, a primera vista, parecen suficientes, especialmente en la Unión Europea. Los reglamentos de reciente aparición relativos a los datos y los que ahora se enfocarán a la inteligencia artificial (IA)*** sirven como ilustración por excelencia de cómo lograr potencialmente una supervisión suficiente de los sistemas de IA. En su aplicación práctica, no obstante, es probable que numerosos mecanismos muestren ineficacia a la hora de identificar los sesgos que surgen tras la integración de estos sistemas en el mercado. Es importante considerar que, en esa coyuntura, puede haber múltiples agentes implicados, en los que se ha delegado predominantemente la responsabilidad. ... (AU)

The issue of bias in AI presents a significant challenge in AI systems. These biases not only arise from existing data but are also introduced by the individuals using the systems, who are inherently biased, like all humans. However, this constitutes a concerning reality because algorithms have the ability to significantly influence a doctor’s diagnosis. Recent analyses indicate that this phenomenon can occur even in situations where doctors are no longer receiving guidance from the system. This implies not only an inability to perceive bias but also a propensity to propagate it. The potential consequences of this phenomenon can lead to a self-perpetuating cycle that has the ability to inflict significant harm on individuals, especially when artificial intelligence (AI) systems are employed in sensitive contexts, such as healthcare. In response to this circumstance, legal frameworks have devised governance mechanisms that, at first glance, seem sufficient, especially in the European Union. Recently emerged regulations regarding data and those now focusing on artificial intelligence (AI) serve as prime illustrations of potentially achieving adequate supervision of AI systems. In practical application, however, numerous mechanisms are likely to show inefficacy in identifying biases arising from the integration of these systems into the market. It is important to consider that, at this juncture, there may be multiple agents involved, predominantly delegated responsibility. Hence, it is imperative to insist on the need to persuade AI developers to implement strict measures to regulate biases inherent in their systems. If the detection of these entities is not achieved, it will pose a significant challenge for others to achieve the same, especially until their presence becomes very noticeable. Another possibility is that the long-term repercussions will be experienced collectively. (AU)

¿Modificar o no modificar el genoma de nuestra descendencia? Algunos comentarios a raiz de la Declaración del Comité de Bioética de España sobre la edición genómica en humanos / To modify or not to modify the genome of our offspring? Some comments following the Declaration of the Spanish Bioethics Committee on genomic editing in humans / Modificar o no modificar el genoma de la nostra descendència?. Alguns comentaris arran de la Declaració del Comitè de Bioètica d'Espanya sobre l'edició genòmica en humans

La modificación genética de la línea germinal humana presenta grandes problemas de carácter ético y jurídico. El Comité de Bioética de España ha publicado una Declaración ofreciendo una respuesta a estos retos. Este artículo analiza críticamente su postura, subrayando la escasa consistencia de cualquier argumento que pretenda censurar cualquier forma de mejora en la salud humana. Con tal fin, se exponen cuestiones como la relación entre dignidad humana y modificación genética o la inconsistencia de la apelación al argumento de la pendiente resbaladiza en este contexto. Asimismo, se afirma la necesidad de trazar distinciones entre las intervenciones que afectan a bienes absolutos, como la salud, y los que no lo son

Genetic modification of the human germline presents major ethical and legal problems. The Spanish Bioethics Committee has published a Declaration offering a response to these challenges. This article critically analyzes its position, underlining the scarce consistency of any argument that attempts to censor any form of improvement in human health. To this end, questions such as the relationship between human dignity and genetic modification or the inconsistency of the appeal to the argument of the slippery slope in this context are raised. At the same time, this paper highlights the need to draw distinctions between interventions that affect absolute goods, such as health, and those that are not

La modificació genètica de la línia germinal humana presenta enormes problemes de caràcter ètic i jurídic. El Comitè de Bioètica d'Espanya ha publicat una Declaració oferint una resposta a aquests reptes. Aquest article analitza críticament la seva postura, subratllant l'escassa consistència de qualsevol argument que pretengui censurar qualsevol forma de millora en la salut humana. Amb tal fi, s'exposen qüestions com la relació entre dignitat humana i modificació genètica o la inconsistència de l'apel·lació a l'argument del pendent relliscós en aquest context. Així mateix, s'afirma la necessitat de traçar distincions entre les intervencions que afecten béns absoluts, com la salut, i els que no ho són

La declaración de constancia de no oposición a un ensayo clínico en situaciones de emergencia / Declaring certainty that a patient is unopposed to clinical trial enrollment in emergency situations

No disponible

La adopción de medidas preventivas contra el contagio de gripe en las instalaciones de las administraciones sanitarias debería ser una obligación jurídica exigible / Adoption of measures to prevent contagion from influenza in health care centers should be mandated by law

No disponible

La patentabilidad de las líneas celulares embrionarias humanas (hESCs) tras las últimas sentencias del Tribunal de Justicia de la Unión Europea / No disponible

En los últimos años, la patentabilidad de las células embrionarias humanas ha generado una amplia polémica. En el caso de la UE, hemos asistido a una sucesión de sentencias del Tribunal Europeo de Justicia sobre este asunto. Cada una de ellas ha ido ofreciendo diferentes respuestas a esta cuestión. El objetivo del presente artículo consiste en analizar la situación actual del debate. Para ello realizaremos un recorrido histórico, incluyendo un diagnóstico de la situación actual. Finalmente, mostraremos qué preguntas permanecen todavía sin respuesta y qué posibles sugerencias cabría adoptar para solucionar estos problemas

In recent years, the patentability of human embryonic cells has generated a wide controversy. In the case of the EU, we have witnessed a succession of judgments of the European Court of Justice on this matter. Each of them has been offering different answers to this issue. The objective of this article is to analyze the current situation of the debate. To this purpose, we will make a historical analysis, which will conclude with a diagnosis of the current situation. Finally, we will show which questions remain unanswered and what possible initiatives might be adopted to solve these problems

A critical analysis of the Recommendation CM/Rec(2016)6 of the Committee of Ministers to member States on research on biological materials of human origin on the basis of the comments made by the experts participating in its public consultation process

On 11 May 2016, the Council of Europe adopted the Recommendation CM/Rec(2016)6 of the Committee of Ministers to Member States on research on biological materials of human origin. This new legal tool is meant to play a key role in the harmonization of the regulation of the topic addressed in the Council of Europe geographical scope, and even beyond. This paper develops a critical analysis of the new Recommendation on the basis of the comments made by academics, representatives of the biotechnology industry, members of the ethics committees, professional and patient associations, national agencies, etc. in a public consultation organized to refine the preliminary draft of the document. It offers a detailed account of its main clauses while comparing them with the suggestions made by the participants in the consultation, highlighting the main disagreements that remained in its final version. In this way, it contributes to the most recent stage of development, both by performing a valuable analysis of the document and by including a critical comment on the utility of the public consultation made during the process

El 11 de mayo de 2016, el Consejo de Europa aprobó la Recomendación CM/Rec(2016)6 del Comité de Ministros a los Estados Miembros sobre investigación con materiales biológicos de origen humano. Este nuevo instrumento jurídico está destinado a desempeñar un papel clave en la armonización de la regulación del tema abordado en el ámbito geográfico del Consejo de Europa, e incluso más allá. En este documento se desarrolla un análisis crítico de la nueva Recomendación sobre la base de las observaciones formuladas por académicos, representantes de la industria biotecnológica, miembros de los comités de ética, asociaciones profesionales y de pacientes, agencias nacionales, etc. en la consulta preliminar sobre el documento realizada por el Consejo. Ofrece una descripción detallada de sus prin.cipales cláusulas, comparándolas con las sugerencias de los participantes en la consulta y destacando los principales desacuerdos que quedaron en su versión final. De esta manera, contribuye al estado de la cuestión a través de una doble vía, tanto realizando un valioso análisis del documento como incluyendo un comentario crítico sobre la utilidad de la consulta pública realizada durante el proceso